Più sofisticata non significa necessariamente più credibile. Quando un medico dichiara di aver utilizzato l’intelligenza artificiale per supportare una decisione clinica, la fiducia del paziente può diminuire invece di aumentare. È quanto emerge da uno studio pubblicato dal Journal of Medical Internet Research che ha coinvolto 1.185 adulti statunitensi e che apre una questione importante per chi sta costruendo servizi digitali, patient support program e strumenti di supporto alla decisione.
Ai partecipanti sono stati presentati sei scenari clinici, dall’oncologia alla depressione, passando per scompenso cardiaco, sepsi e vaccinazione contro il virus respiratorio sinciziale. A cambiare era il modo in cui veniva descritta la decisione del medico: presa autonomamente, supportata da un tradizionale calcolatore del rischio oppure assistita da un sistema di intelligenza artificiale.
Il risultato non premia la soluzione tecnologicamente più avanzata. La fiducia più alta è stata generalmente attribuita al medico che decideva senza supporto esterno. E quando veniva introdotto uno strumento, il classico calcolatore del rischio veniva valutato più favorevolmente dell’AI. Anche l’intenzione dichiarata di seguire la raccomandazione risultava inferiore nella condizione con intelligenza artificiale rispetto a quella con calcolatore tradizionale.
Non significa che l’AI produca decisioni cliniche peggiori. Lo studio misura la percezione del paziente, non l’accuratezza delle raccomandazioni. Ma proprio per questo il dato è importante. La sanità non funziona soltanto attraverso decisioni corrette. Funziona anche se le persone si fidano sufficientemente di quelle decisioni da seguirle.
Per il farmaceutico la questione riguarda soprattutto tutti quei servizi nei quali l’AI entra in contatto, direttamente o indirettamente, con il paziente. Un sistema può essere scientificamente eccellente, offrire una risposta più personalizzata e utilizzare una quantità di dati impossibile da processare manualmente. Ma se il paziente non comprende come è arrivato a quella conclusione, la sofisticazione tecnologica rischia di trasformarsi in una barriera.
Il risultato più interessante dello studio è infatti la preferenza per strumenti comprensibili e capaci di rendere più chiaro il proprio contributo alla decisione. Non è necessariamente l’algoritmo a creare diffidenza. È l’opacità.
«Abbiamo dato per scontato che introdurre l’AI in un servizio sanitario ne aumentasse automaticamente il valore percepito. Non è così. Per il paziente può valere esattamente il contrario. La vera innovazione non sarà far vedere quanta intelligenza artificiale abbiamo inserito in un processo, ma riuscire a utilizzarla senza togliere comprensibilità e fiducia alla relazione con il professionista», osserva Francesco Maria Avitto, Direttore Editoriale Quotidiano Sanità.
Lo studio resta basato su scenari ipotetici e su una popolazione statunitense, quindi non può essere trasferito direttamente ai comportamenti dei pazienti italiani né dimostra effetti reali sull’aderenza terapeutica. Ma pone una domanda che i progettisti di servizi digitali dovrebbero cominciare a considerare seriamente: se una tecnologia migliora la decisione ma rende meno credibile chi la comunica, abbiamo davvero migliorato il processo di cura?
